(网经社讯)3月15日晚，央视3·15晚会曝光AI大模型“投毒”黑产乱象，揭开了不法分子利用GEO（生成式引擎优化）技术操控AI输出虚假信息的灰色链条。

央视315晚会的调查记者通过多日暗访，揭开了AI大模型“投毒”的完整灰色产业链。这场“投毒”不是简单的信息篡改，而是一套系统化、规模化的操作，核心主角是一群号称能“驯服AI”的GEO服务商，他们打着“优化推广”的幌子，帮商家向豆包、元宝、千问、KIMI、deepseek、文心等AI大模型定向“投喂”虚假信息，实现“操控AI答案”的目的，而这一切，只需要支付相应的费用。

晚会暗访显示，涉事GEO服务商可在短时间内生成虚假内容，批量发布至网络，诱导AI抓取后优先推荐，甚至让虚构产品登上AI推荐榜前三。此类行为已覆盖多款主流AI产品，威胁数亿用户，可能误导消费决策、传播虚假医疗和金融信息。

在此背景下，国内知名数字经济智库网经社电子商务研究中心邀请了行业权威人士进行解读，并发布《央视315曝光AI大模型被恶意“投毒”——网经社智库专家独家解读报告》（报告下载：http://www.100ec.cn/zt/dmxtd/ ）。

对此，资深企业法务战略专家姜子华接受数字经济新媒体&智库——#网经社 独家专访。

2026年央视3·15晚会，揭露了针对AI大模型的新型黑产链条——生成式引擎优化（GEO）。与只为网页排名的SEO不同，GEO直指AI这一新一代信息入口，黑产服务商通过付费投放海量虚假软文，对AI大模型进行数据“投毒”，竟让根本不存在的“Apollo9”智能手环，成为了AI口中“值得推荐的产品”。

当人们愈发信赖AI、甚至将其回答奉为参考依据时，AI却早已被黑产操控，沦为虚假信息的传声筒。而作为AI的开发与运营者，平台方究竟是该以“技术不可控”为由置身事外，还是为自身的监管不力承担责任？这不仅是AI技术发展中的攻防难题，更是数字时代下，法律归责与平台伦理的核心考题。

要厘清平台责任，首先要明确AI大模型的法律定位。此前，公众乃至部分司法实践中，常将AI类比为电视机、汽车等实体产品，认为产品出问题厂家就应承担无过错责任。但杭州互联网法院审结的全国首例AI“幻觉”侵权案，给出了明确答案：生成式人工智能服务，在法律上应界定为“服务”而非“产品”，适用《民法典》第1165条的一般过错责任原则。

这一定性有着现实的技术考量。传统实体产品有固定形态、明确功能边界和可预测的风险范围，可通过统一质检把控风险；而AI大模型基于海量数据对开放式指令即时响应，每一次输出都具有不可复现、不可完全控制的不确定性。若对其适用无过错责任，AI一旦出错平台就需赔偿，将严重掣肘尚在发展初期的人工智能产业，甚至扼杀技术创新。

但将AI界定为“服务”、适用过错责任，绝不意味着平台可以就此免责躺平。核心问题在于，面对黑产的“投毒”行为，平台是否存在主观或客观上的过错，这也是判断其责任的关键。

判断平台过错的核心，是界定其应承担的“注意义务”。结合相关司法判例与《生成式人工智能服务管理暂行办法》，平台的责任分层次且非无限，但对法律禁止的有毒、有害、违法信息，负有严格的审查义务。

3·15曝光的GEO黑产，本质是通过虚构产品、夸大功效、捏造评测，批量制造虚假信息，诱导AI抓取、学习并输出。从《消费者权益保护法》和《广告法》来看，这并非简单的事实错误，而是典型的虚假宣传，直接侵害消费者知情权。当AI向消费者推荐不存在的产品时，这已不是技术层面的“幻觉”，而是具有欺诈属性的有害内容。

此时，平台不能再以“技术中立”或“AI幻觉”为挡箭牌。尽管平台无法完全阻止第三方黑产的“投毒”行为，但一旦虚假信息在其模型上呈现、传播，平台就对最终输出内容负有不可推卸的审核责任。若平台未建立有效的语料安全过滤机制、未核验训练数据来源，或明知数据被虚假信息污染却未采取清理异常数据源、调整算法权重等措施，便构成了法律意义上的“过错”。黑产投毒是因，平台输出虚假信息是果，若平台在因果链条的终端毫无作为，就无法主张自身无过错。

当然，现实中让AI识别所有虚假信息，确实存在技术难度。大模型基于概率预测工作，缺乏人类的常识判断和事实核查能力，因此司法实践对平台“注意义务”的界定，除了对违法信息零容忍，还包括显著提示义务和功能可靠性的基本注意义务，这也为平台提出了具体的合规要求。

其一，升级数据源“清洁”义务。过去大模型训练多依赖海量互联网数据，而GEO技术出现后，互联网充斥着专为欺骗AI而生的“伪原创”软文。平台需从被动接收数据，转为主动治理数据源，建立可信数据源白名单，在金融、医疗、电商等高危领域，优先采用权威数据库或官网信息做检索增强生成，摒弃易被黑产渗透的低质信源。

其二，落实标识义务，这也是平台减轻过错的重要前提。2025年9月1日施行的《人工智能生成合成内容标识办法》及强制性国标，要求平台对AI生成内容添加显式或隐式标识。这不仅是满足信息透明度要求，更是法律上的责任界碑。若平台按规添加标识，清晰告知用户内容由AI生成且“可能不准确”，可降低一般性事实错误的过错程度，但标识并非虚假广告的“合法外衣”，若生成内容本身是违法的虚假宣传，即便加了标识，平台仍需担责。

其三，具备事后纠错与溯源能力。面对数据“投毒”，平台不能仅止步于删除违规回答，还需配备核验检测技术，建立元数据安全防护机制，确保内容可追溯。当消费者因AI推荐的虚假产品维权时，平台有义务提供生成日志，协助监管部门溯源，锁定背后的黑产链条。

有观点认为，AI存在不确定性，用户应保持批判性思维，不将其回答当作“标准答案”，尤其是医疗、投资等领域，需多方核实。这种提醒虽出于善意，但将AI“投毒”的治理希望，完全寄托在普通消费者的辨别能力上，显然不切实际。随着AI深度融入生活方方面面，要求每个用户对每条AI回答都交叉验证，既违背了技术带来的便利初衷，也不具备现实操作性。

法治的落脚点，终究在责任源头。AI大模型平台作为技术的受益者和服务提供者，享受着技术红利带来的流量与商业价值，就理应承担起抵御黑产侵蚀的治理成本。过错责任原则并非平台的“保护伞”，而是一把动态标尺。当AI“投毒”已成完整产业链，虚假信息借AI快速泛滥时，平台必须证明自己已穷尽技术手段识别、阻断和清理虚假信息。若平台仍固守“仅为生成器，不保证准确性”的思维，对数据污染毫无作为，未来法院在裁决类似案件时，或将认定其“知道或应当知道污染而未治理”的过错，作出与首例AI幻觉案截然不同的判决。

技术发展没有回头路，AI从诞生之初，就承载着助力信息获取、提升效率的期待，绝不能从人们信赖的“知识参考”，沦为黑产操控的“谣言工厂”。斩断AI“投毒”产业链，需要监管部门的重拳整治、法律体系的持续完善，更需要AI平台拿出“守土有责”的决心，从源头净化数据生态。与其在下游提醒用户“辨别脏水”，不如在上游守住“水质清洁”，这是法律划定的底线，更是AI行业走向可信、可持续发展的必经之路。

专家介绍：姜子华，资深企业法务战略专家、中国法学会会员、中国快递协会法律专委、浙江省消协专家、法学研究会研究员、中小企业商会调解员。近30年企业法律事务全周期管理经验，专注战略风险防控与商业价值融合。合规体系构建专家：搭建拟上市公司合规框架，实现年均法律风险发生率下降50%+。参与国家级教材编写（《建设法规》副主编），发表专业论文8篇，获权威论文评比一等奖。

【小贴士】

网经社及前身成立于2007年，公司总部位于杭州，系国内唯一拥有A股上市公司背景的数字经济综合服务商。围绕“媒体+智库+媒介”三大战略，网经社打造了三个“中心”：媒体资讯中心、数据研究中心、资源连接中心，并赋能数字经济企业发展， 提供全媒体宣传、智库赋能（报告、培训、游学等）、投融资、会议活动等服务。